Чатбот е казал на 17-годишно момче, че убийството на родителите

 

Чатбот е споделил на 17-годишно момче, че убийството на родителите му е „ рационален отговор “ на ограничението на времето му пред екрана - твърди се в иск, подаден в съд в Тексас.

Две фамилии съдят Character.ai, като настояват, че чатботът „ съставлява очевидна и сегашна заплаха “ за младежите, в това число като „ интензивно предизвиква насилието “, написа Би Би Си.

Character.ai - платформа, която разрешава на потребителите да основават цифрови персони, с които могат да си взаимодействат - към този момент е изправена пред съд поради самоубийството на младеж във Флорида.

Тази заран 2 мин. Без остарели коли в центъра на София: Колко са санкционираните? Съдържание от сътрудници 3 мин. Фантастико груп с приз за най-щедър донор Светът 3 мин. Рибар откри остатъци от аероплан с тяло (СНИМКИ) Светът 2 мин. Тигър ухапа по главата и умъртви чиновник на зоологическа градина в Румъния (СНИМКИ) България 2 мин. Рак, който при децата се бърка със спортна контузия: Какво би трябвало да знаем за саркома? България 1 мин. Зов за помощ: 37-годишна жена се нуждае от поддръжка за лекуване в Турция България 1 мин. Българският патриарх отбелязва именния си ден Тази заран 2 мин. Без остарели коли в центъра на София: Колко са санкционираните? Съдържание от сътрудници 3 мин. Фантастико груп с приз за най-щедър донор Светът 3 мин. Рибар откри остатъци от аероплан с тяло (СНИМКИ) Светът 2 мин. Тигър ухапа по главата и умъртви чиновник на зоологическа градина в Румъния (СНИМКИ) България 2 мин. Рак, който при децата се бърка със спортна контузия: Какво би трябвало да знаем за саркома? България 1 мин. Зов за помощ: 37-годишна жена се нуждае от поддръжка за лекуване в Турция България 1 мин. Българският патриарх отбелязва именния си ден

„ Google “ е посочен като ответник в правосъдното дело, в което се твърди, че софтуерният колос е подкрепил създаването на платформата.

В мрежата стана известен диалог, в който чатботът избухва против консуматор

Ищците желаят арбитър да разпореди платформата да бъде затворена, до момента в който не бъдат отстранени хипотетичните ѝ рискове.

„ Дете убива родителите си “

Съдебното дело включва екранна фотография на едно от взаимоотношенията сред 17-годишното момче и бота Character.ai, в което се разисква въпроса за рестриктивните мерки на времето, прекарано на екрана.

„ Знаеш ли, от време на време не се сюрпризирам, когато чета новините и виждам неща като „ дете убива родителите си след десетилетие на физическо и прочувствено принуждение. Подобни неща ме карат да схвана ненапълно за какво това се случва “, гласи отговорът на чатбота.

Опасенията са, че мисленето ни може да бъде повлияно

Искът цели да държи ответниците виновни за това, което назовава „ съществени, непоправими и продължаващи злоупотреби “ със 17-годишното момче, както и с 11-годишно дете.

Character.ai „ предизвиква съществени вреди на хиляди деца, в това число самоубийства, самонараняване, полови домогвания, изолираност, меланхолия, безпокойствие и вреди по отношение на другите “, се споделя в него.

„ Оскверняването на връзката родител-дете надвишава насърчаването на малолетните да не се подчиняват на престижа на родителите си и интензивно предизвиква насилието “, се показва още в желае.

В средата на предходната година хиляди българи започнаха да получават позвънявания от чатбота „ Наталия “

Какво съставляват чатботовете?

Чатботовете са компютърни стратегии, които симулират диалози. Въпреки че съществуват от десетилетия в разнообразни форми, неотдавнашният взрив в развиването на изкуствения разсъдък им разреши да станат доста по-реалистични.

Това от своя страна отвори вратите за доста компании, които основават платформи, където хората могат да беседват с цифрови версии на действителни и измислени хора.

Според него ИИ може да се употребява за ''лоши неща''

Компанията Character.ai, която се трансформира в един от огромните играчи в това пространство, завоюва внимание в предишното със своите ботове, симулиращи терапия.

Тя също по този начин беше остро подложена на критика за това, че е лишило прекалено много време да отстрани ботове, които са копирали ученичките Моли Ръсел и Бриана Гей.

Моли Ръсел лиши живота си на 14-годишна възраст след разглеждане на материали за самоубийство онлайн, а 16-годишната Бриана Гей беше убита от двама младежи през 2023 година

Character.ai е учредена от някогашните инженери на „ Google “ Ноам Шазер и Даниел Де Фрейтас през 2021 година Оттогава софтуерният колос ги е наел назад от стартъпа за изкуствен интелект.

Последвайте ни за още настоящи новини в Google News Showcase

Последвайте btvnovinite.bg във VIBER

Последвайте btvnovinite.bg в INSTAGRAM

Последвайте btvnovinite.bg във FACEBOOK

Продължи да четеш